[Obsoleto] Completaciones de chat en streaming para el uso de SDK generado

ID del modelo a utilizar. Puedes usar el formato proveedor:model o simplemente el nombre del modelo con un proveedor predeterminado.

Controles qué herramienta (si la hay) es llamada por el modelo. 'ninguna' significa que el modelo no llamará a ninguna herramienta. 'automático' significa que el modelo puede elegir. 'requerido' obliga a realizar una llamada a la herramienta.

Si se establece, los deltas de mensajes parciales se enviarán como eventos enviados por el servidor. Nota: Este campo es ignorado por el punto final de transmisión, utilizado únicamente por puntos finales de clientes compatibles con OpenAI.

Cuántas opciones de completado de chat generar para cada mensaje de entrada. El valor predeterminado es 1.

El número máximo de tokens que se pueden generar en la finalización del chat. La longitud total de los tokens de entrada y los tokens generados está limitada por la longitud del contexto del modelo.

¿Qué temperatura de muestreo usar, entre 0 y 2? Valores más altos como 0.8 harán que la salida sea más aleatoria, mientras que valores más bajos como 0.2 la harán más enfocada y determinista.

Una alternativa al muestreo con temperatura, llamada muestreo por núcleos, donde el modelo considera los resultados de los tokens con masa de probabilidad top_p. Así que 0.1 significa que solo se consideran los tokens que comprenden el 10% superior de la masa de probabilidad.

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su frecuencia existente en el texto hasta ahora, disminuyendo la probabilidad de que el modelo repita la misma línea textualmente.

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens según si aparecen en el texto hasta ahora, aumentando la probabilidad del modelo de hablar sobre nuevos temas.

Si se especifica, el sistema hará un esfuerzo máximo para muestrear de manera determinística. No se garantiza el determinismo, pero la misma semilla debería devolver típicamente resultados similares.

Hasta 4 secuencias donde la API dejará de generar más tokens. El texto devuelto no contendrá la secuencia de parada.

Si devolver las probabilidades logarítmicas de los tokens de salida. Si es verdadero, devuelve las probabilidades logarítmicas de cada token de salida devuelto en el contenido del mensaje.

Un entero entre 0 y 20 que especifica el número de tokens más probables para devolver en cada posición de token, cada uno con una probabilidad logarítmica asociada. logprobs debe establecerse en verdadero si se utiliza este parámetro.

Un identificador único que representa a su usuario final, lo que puede ayudar a supervisar y detectar abusos. También se utiliza para el seguimiento de uso y análisis.

Si habilitar la llamada a funciones en paralelo durante el uso de la herramienta.

Restringe el esfuerzo en el razonamiento para los modelos de razonamiento. Menor esfuerzo resulta en respuestas más rápidas y menos tokens de razonamiento. Valores soportados: 'ninguno', 'mínimo', 'bajo', 'medio', 'alto', 'muy alto', o nulo.

Cuando es verdadero, la puerta de enlace analiza la complejidad de la solicitud y enruta automáticamente entre variantes cuantizadas, MoE y densas de la familia de modelos solicitada.